Skip to main content

MUSA SDK v4.3.2 发布版本信息

下载链接

发布说明

MUSA SDK v4.3.2 版本基于MUSA SDK 4.3.0分支进行功能迭代和问题修复,现已正式对内发布,具体支持平台以及对应项目见测试报告

产品说明

摩尔线程 MUSA SDK 是一套完整的 GPU 并行计算开发环境,专为利用摩尔线程 GPU 加速程序而设计。通过 MUSA SDK,您能够轻松地利用 GPU 加速各种应用,涵盖企业数据中心、桌面、工作站以及云平台和超级计算机等多个领域。该套件包括了 GPU 加速库、调试和优化工具、C/C++编译器以及用于应用程序部署的运行时库等功能。作为一套完整的开发工具,MUSA SDK 包含了以下主要组件:

  • MUSA Toolkits,包含底层编译器、MUSA 运行时库、Musify 工具以及MUSA-X 基础数学计算加速库
  • muDNN,MT GPU 深度学习加速库
  • MCCL,MT GPU 通信加速库
  • MUSA SDK 依赖于摩尔线程 GPU 和摩尔线程 GPU 通用驱动程序,需要运行在带有摩尔线程 GPU的服务器/工作站/PC 中,并安装了通用 Linux 驱动程序的环境中运行
  • MT GPU:MTT S5000, MTT S4000,MTT S3000,MTT S80, MTT X300 等
  • 通用驱动软件

另外 MUSA SDK 可配合摩尔线程提供的其他工具和软件提供更完整的 MUSA 计算功能

  • GMI&MTML 工具,可提供显卡的管理监控功能并带有 C 函数接口
  • 摩尔线程云原生套件,提供基于容器环境的 MUSA 计算并兼容 K8s 生态以及基于 RDMA 的GPU通信功能

功能描述

  • 支持 SIMT(Single Instruction Multiple Thread,SIMT)架构并行编程模型
  • 提供 MUSA 编程语言配套的编译器工具链 mcc,用于将 MUSA 应用程序源码编译为可以被 GPU识别的可执行文件
  • MUSA 驱动与运行时库,提供完整的基于 MT GPU 的MUSA 运行环境
  • 摩尔线程 MUSA 数学库提供了在 MT GPU 上优化过的数学函数库,包括
    • 基础线性代数算子库 muBLAS(MUSA Basic Linear Algebra Subprograms)
    • 快速傅里叶变换库 muFFT(MUSA Fast Fourier Transform)
    • 基础性能元库 muPP (MUSA Performance Primitives)
    • 随机数生成库 muRAND
  • MCCL 通信,针对摩尔线程 GPU 和网络进行性能优化的多 GPU 和多节点通信基元。 MCCL 提供了 all-gather、all-reduce、broadcast、reduce、reduce-scatter、point-to-point send 和 receive等原语,这些原语均经过优化,可通过节点内的 PCIe 和 MTLink 高速互联以及节点间的InfiniBand 网络实现高带宽和低延迟
  • muDNN 库,针对深度学习领域和人工智能模型算法优化的函数库,提供高度优化的数学和数据处理任务的函数,包括张量运算,神经网络层计算,损失函数计算等

主要更新

系统与特性增强

  1. 支持 VPU 功能(需升级 MTBios 至 4.3.30)
  2. 支持 MCCL all2all over ACEMCCL allreduce over ACE 功能
  3. 使用 muDNNbenchmark GPU 压测时,需要配置musa环境变量: export MUSA_EXECUTION_TIMEOUT=(按需定义,单位ms)
  4. 支持 deepepmtshmem
  5. 扩展平台支持:
    • Intel + OpenEuler (美团项目)
    • Hygon4 + Ubuntu (昌平项目)
    • AMD + Ubuntu (海淀项目)

Bug 修复

  • 修复 SW-66319:CE event 导致 FW hang 问题
  • 修复 SW-65654:Profiling(torch profiler/msight)引起的训练错误问题

兼容环境

见测试报告

产品组件说明

MUSA SDK组件

包名称版本
79e98a02a_mtml_2.2.0-linux-R_amd64.deb2.2.0
e17b1fb50_moore-perf-system_1.5.0_aarch64.deb1.5.0
e17b1fb50_moore-perf-system_1.5.0_aarch64_internal.deb1.5.0
e17b1fb50_moore-perf-system_1.5.0_x86_64.deb1.5.0
e17b1fb50_moore-perf-system_1.5.0_x86_64_internal.deb1.5.0
mccl_rc2.1.2.PH1.tar.gzrc2.1.2.PH1
mccl_rc2.1.2.QY2.tar.gzrc2.1.2.QY2
mt-datacenter-gpu-manager_amd64_v1.1.0_36b03b075.debv1.1.0
mudnn_rc3.1.2.PH1.tar.gzrc3.1.2.PH1
mudnn_rc3.1.2.QY2.tar.gzrc3.1.2.QY2
musa_3.3.2-server_amd64.deb3.3.2
musa_toolkits_rc4.3.2.tar.gzrc4.3.2
triton_rc1.4.0_py310.tar.gzrc1.4.0
triton_rc1.4.0_py311.tar.gzrc1.4.0